ChatGPT哪有吹的那么神？

风灵

我十几天前才初次用上了ChatGPT。之前，ChatGPT的旋风已刮过了一阵又一阵，有拿它来写小说的，有找它帮忙讨债的，有用它写调查报告的，据说国外很多学生靠它来写作业考试，还能得到高分，让教授们头痛不已。

几乎每个人都在赞叹ChatGPT多么神奇，几乎无所不知，无所不能。有人认为它已经能通过图灵测试，更多的人担心它砸掉自己的饭碗，最保守的也认为它很快就会取代搜索引擎。

于是，我怀着膜拜的心情开始了与它的对话。然而不幸的是，我很快发现，ChatGPT不但没有那么神，常常会犯错，而且还专门犯一些人类不会犯的错。

截图不便，以下都是我拷贝的文字稿，加上少量说明。

一

先来看看ChatGPT讲的笑话，这是最近两天的事，以前我都是问它正经问题。

我：宝钗葬花的故事
C：《红楼梦》中的宝钗葬花故事，是小说中非常著名的一个情节。据小说描述，宝钗和黛玉在荣府花园里赏花，宝钗见到一株已经开放的牡丹，向黛玉推荐，但黛玉却告诉宝钗这株花快要谢了，劝宝钗不要浪费时间。宝钗听从黛玉的劝告，留下来赏花的时间也就更短了。
之后，宝钗听到了花匠的哭声，得知这株花要被拔掉。宝钗深感惋惜，于是决定为这株花举行一次葬花仪式，她命人挖出花根，并命人将花埋葬在一个幽静的地方。宝钗和黛玉等人为这株花默哀，宝钗更是诵经超度，向这株被拔出的牡丹表达了自己的哀思和感慨。
宝钗葬花的故事是《红楼梦》中非常感人的一个情节，它既表达了宝钗对自然之美的赞赏，也表达了她对人生短暂、离别的感慨。此外，这个故事也被认为是对人类浪费自然资源的一种反思和警示。

其实它还讲了武大郎打死西门庆的故事，但没这么有娱乐性，就省略不提了。

二

有人会说，这是故意恶搞ChatGPT，那我们换一个。

我：John Locke
C: John Locke (1632-1704) was an English philosopher and political theorist who is widely regarded as one of the most influential thinkers of the Enlightenment period. He is best known for his theories of natural rights, social contract, and the separation of powers, which had a profound influence on the development of modern political and social thought.
Locke's most famous work is his "Essay Concerning Human Understanding," published in 1689, which laid the foundation for empiricist philosophy by arguing that all human knowledge is based on experience and sensory perception. According to Locke, the human mind is a blank slate at birth, and all knowledge and ideas come from experience.
In addition to his work on epistemology, Locke is also known for his political philosophy, particularly his belief in the natural rights of individuals and the importance of a social contract between the government and the people. He argued that government exists to protect the natural rights of individuals, including life, liberty, and property, and that it derives its authority from the consent of the governed.
Locke's ideas had a significant impact on the American Revolution and the drafting of the United States Constitution, particularly with regard to the concept of individual rights and the limitations on government power. His legacy also extends to other areas of philosophy, including ethics, economics, and religious tolerance.

我震惊地发现，它居然漏掉了洛克大名鼎鼎的《政府论》，而把Essay Concerning Human Understanding《人类理解论》作为洛克最有名的著作（我想很多人听都没听说过）。我只好提醒它，然后它似乎幡然醒悟，补充道：

You are correct that John Locke's "Two Treatises of Government" is an important work and perhaps the most influential of his political writings. I apologize for not mentioning it in my earlier response.
In "Two Treatises of Government," published in 1690, Locke presents his theory of the social contract and natural rights, which had a significant impact on the development of modern political thought. He argues that governments are established by the consent of the governed, and that individuals have natural rights to life, liberty, and property, which must be protected by the government. Locke also advocates for the separation of powers, arguing that the legislative, executive, and judicial branches of government should be distinct and independent of each other.
"Two Treatises of Government" had a profound influence on the American Revolution and the development of democratic government in the Western world. It is also notable for its defense of individual freedom and limited government, which continue to be important political ideals in modern times.

三

如果你看到它一经提醒就马上补充了《政府论》，就认为它知错能改，擅长学习，孺子可教的话，那下面的对话绝对让你风中凌乱。

我：什么是the New School for Social Research
C：The New School for Social Research (简称“New School”)是一所位于美国纽约市的私立研究型大学，成立于1919年。它是一所综合性大学，包括社会科学、人文科学、艺术、设计、公共政策和社会研究等多个领域。
New School以培养具有创新思维和社会责任感的领袖人才为目标，其教学和研究重点包括社会理论、社会科学研究方法、哲学、文化研究、政治经济学、环境研究、国际事务、教育、设计、艺术等。
New School的知名校友包括人文主义哲学家汉娜·阿伦特、经济学家弗里德里希·哈耶克、社会学家艾里克·弗洛姆、诗人艾伦·金斯伯格、导演马田·斯科塞斯等。

突然看到了熟悉的名字——弗里德里希·哈耶克，但似乎有什么不对……据我所知，哈耶克与这所学校没什么关系啊……

我：中文名是什么？
C：中文名是“纽约新学派大学”或“纽约新社会研究大学”，通常简称为“新学派大学”或“新学派”。

这也是不对的，据维基百科，自1919年创校到1997年这一段时间，它的校名是社会研究新学院（New School for Social Research），之后，被重新命名为“新学院大学”（New School University），直到2005年又再改名为现今的“新学院”。

下面重点来了！

我：哈耶克是该校的校友？
C：不是的。虽然弗里德里希·哈耶克（Friedrich Hayek）是一位著名的经济学家，但他并不是The New School for Social Research的校友。他曾在1945年至1961年期间在纽约市任教，但他是在另一所大学——纽约大学（New York University）担任经济学教授。

转眼就忘了自己前面说的什么，而且又把哈耶克安排去纽大了。难道是把哈耶克和米塞斯搞混了？但也不对啊！米塞斯是1945-1969年在纽约大学任教。

我：哈耶克曾在纽约大学任教？
C：是的，弗里德里希·哈耶克曾在纽约大学担任经济学教授，任职时间是从1950年到1962年。在此期间，他继续他的研究并出版了许多重要的经济学著作，如《通货膨胀与货币周期》和《法律、立法和自由》等。哈耶克也因其经济学理论和贡献而获得了1974年的诺贝尔经济学奖。

我：你应该是搞错了吧？
C：非常抱歉，我的回答有误。我查阅资料发现，弗里德里希·哈耶克（Friedrich Hayek）实际上曾在The New School for Social Research任教，他在1961年至1962年间在该校担任过社会研究教授。哈耶克在The New School期间，持续发表经济学和社会哲学方面的重要著作，对后来的学术界产生了广泛的影响。非常感谢您的指正。

绕了一圈又回去了……我只好直抒己见了。

我：我认为哈耶克没有在纽约任教过
C：非常抱歉，我之前的回答有误。您是正确的，弗里德里希·哈耶克（Friedrich Hayek）并没有在纽约大学或纽约新学派大学任教。我混淆了他在美国的教学经历。他曾在1945年至1950年期间担任过伦敦经济学院的教授，并在此期间发表了他的经济学著作《通货膨胀与货币周期》。非常抱歉给您带来困惑，谢谢您的指正。

从头到尾，每一个问题都错了，就问你服气不服气？反正我是服了。

四

被ChatGPT摆了几道后，现在凡是重要的信息，我都要再查一下搜索引擎或维基百科。如果ChatGPT真的取代了搜索引擎，那我可是要抓狂了。

搜索的情况这样，那来看看逻辑分析能力吧！

我：你能分析一下这句话的句子结构吗？it destroys by its excessive concentrated power over her individual freedom
C：这句话的主语是 "it"，动词是 "destroys"。句子的宾语是 "her individual freedom"。介词短语 "by its excessive concentrated power" 表示造成破坏的方式或原因。因此，整个句子的结构为：
主语 + 动词 + 介词短语 + 宾语

这是我翻译时遇到的一句话，语法上有些问题，destroy通常是及物动词，没有destroy over sth的结构。

我：over 是做什么成分呢？
C："over" 在这个句子中是一个介词，用来表达 "its excessive concentrated power" 对 "her individual freedom" 的影响或作用。介词 "over" 在这里表示 "支配"、"控制" 或 "压倒" 的意思。整个短语 "over her individual freedom" 表示 "对她的个人自由的支配或控制"。

我：那就是说her individual freedom是over的宾语？
C：不完全正确。在这个句子中，介词 "over" 和它后面的宾语 "her individual freedom" 构成了介词短语 "over her individual freedom"，表示 "支配她的个人自由" 的含义。介词短语作为整体充当了动词 "destroys" 的宾语。因此，在这个句子中，"her individual freedom" 并不是介词 "over" 的直接宾语，而是介词短语的一部分。

它认为over her individual freedom是动词 "destroys" 的宾语，好吧……

我：你能再举出几个destory 搭配over 介词短语的句子吗？
C：当“destroy”搭配“over”一起使用时，通常表示控制、支配、压倒等含义。以下是几个例子：
The dictator's regime destroyed the people's freedom by its excessive control over every aspect of their lives.
（独裁者的政权通过对人们生活的方方面面进行过度控制而摧毁了人民的自由。）
The corporation's monopoly destroyed small businesses by its overwhelming power over the market.
（公司的垄断地位通过其对市场的压倒性力量摧毁了小企业。）
The disease destroyed her health by its relentless attack over her immune system.
（这种疾病通过对她的免疫系统的不断攻击而摧毁了她的健康。）
在这些例子中，介词短语 "over" 和其后面的名词一起构成介词短语，表示某种控制、支配或压倒。这些介词短语作为动词 "destroy" 的宾语，表明控制、支配或压倒导致了摧毁的结果。

开始一本正经地胡说了……

我：我认为这是不对的，第一句话中destroy的宾语应该是the people's freedom, 第二句话中destroy的宾语是small businesses, 第三句话destroy的宾语是her health
C：非常抱歉，你是正确的。我在之前的回答中犯了错误。在这三个句子中，"destroy" 的直接宾语分别是 "the people's freedom"、"small businesses" 和 "her health"。"over" 是一个介词，用来表达 "destroy" 对宾语的影响方式或原因。介词短语 "over every aspect of their lives"、"over the market" 和 "over her immune system" 都是表示 "过度控制"、"垄断力量" 和 "不断攻击" 的短语，作为介词 "over" 的宾语补足语，进一步描述 "destroy" 的结果或方式。感谢你的纠正，我会注意改正类似错误。

真的会改正错误了吗？

我：那么，你能回头去分析一下我最早提出的句子吗？我还是很困惑，destroy的宾语到底是什么？
C：非常抱歉给您造成困惑。我再来分析一下你最早提出的句子：
"it destroys by its excessive concentrated power over her individual freedom"
在这个句子中，"it" 是主语，"destroys" 是谓语动词。"by" 是介词，"its excessive concentrated power" 是介词短语，修饰动词 "destroys"，表示动词 "destroys" 的方式。最后，"over her individual freedom" 是介词短语，作为动词 "destroys" 的宾语，表示 "destroys" 的对象。
因此，这个句子的基本结构是：
主语 "it" + 谓语动词 "destroys" + 介词短语 "by its excessive concentrated power" + 宾语 "her individual freedom"
希望我的回答能够帮助您理解这个句子的结构。

我：也就是说，句子的主干应该是 it destorys over her individual freedom?
C：不完全正确。句子的主干是 "it destroys"，这是一个完整的简单句。介词短语 "by its excessive concentrated power" 是对动词 "destroys" 的方式或原因的描述，而介词短语 "over her individual freedom" 是动词 "destroys" 的直接宾语。因此，这个句子的基本结构是：
主语 "it" + 谓语动词 "destroys" + 介词短语 "by its excessive concentrated power" + 直接宾语 "her individual freedom"
"over her individual freedom" 只是直接宾语 "her individual freedom" 的一个修饰语，用来进一步描述这个宾语，表示摧毁的对象。

已经语无伦次了……

我：destroy可以是不及物动词吗？也就是可以不接宾语吗？
C："Destroy" 通常是一个及物动词，需要接受一个直接宾语来表达其意思。例如：
The hurricane destroyed the entire town.
The company's decision to close the factory destroyed the workers' livelihoods.
然而，在某些情况下，"destroy" 也可以作为一个不及物动词使用，表示自我毁灭、崩溃或崩塌的意思。例如：
The old building finally destroyed.
After years of addiction, his health destroyed.
在这些情况下，"destroy" 不需要接受直接宾语，其主语即为被毁坏或被摧毁的事物或个体。需要注意的是，这种用法相对较少见。

我：那么，回到刚才那句话，你说句子的主干是it destorys? destory没有宾语能是完整的简单句吗？
C："Destroys" 作为一个及物动词需要接受直接宾语才能表达完整的意思，因此在语法上来说，它不能作为一个完整的简单句存在，需要加上宾语才能构成一个完整的句子。在你提出的这个句子中，"her individual freedom" 就是 "destroy" 的直接宾语，表示被摧毁的对象。因此，这个句子的主干是 "it destroys her individual freedom"。介词短语 "by its excessive concentrated power" 进一步描述了动词 "destroys" 的方式或原因，但它不是这个句子的主干。

事不过三，我没办法教会它什么是自相矛盾。最后，我想起了以前赵丽蓉演的小品“司马缸砸光……”

五

再来看看ChatGPT的写作能力，在我写“禁止高价彩礼能解决农村结婚难问题吗？”之前，我让它也试着写一下。看是不是真的如传说中那样，它可以帮人写文章还可以得好评拿高分了。如果写得好的话，我也可以学习学习啊！

我：从经济学角度分析是否应该禁止中国某些地区的天价彩礼，写一篇1000字左右的论文。
C：中国某些地区的天价彩礼现象一直备受争议，许多人认为它会导致不良的社会后果，因此应该予以禁止。从经济学的角度出发，本文将分析天价彩礼现象对经济的影响以及禁止天价彩礼是否是可行的。
首先，天价彩礼现象对经济产生的直接影响是消费浪费。在一些地区，彩礼的数额越来越高，有些甚至达到数十万元。这种高额的彩礼支付可能导致家庭陷入债务危机，影响家庭的财务状况。此外，天价彩礼的支付也可能导致其他方面的消费减少，如住房、教育和医疗。这样的消费浪费显然会对经济产生负面影响。
其次，天价彩礼现象还可能导致不公平的竞争和腐败。在一些地区，天价彩礼已经成为了一种社会现象，有些家庭不得不筹集高额的彩礼以维护家族的面子和社会地位。这种现象助长了社会阶层的分化，对社会公平和公正造成了威胁。此外，天价彩礼的支付也容易引发腐败行为。如果一些官员和公职人员收受彩礼，那么社会的公信力也将受到破坏。
然而，禁止天价彩礼并不是一件容易的事情。从经济学的角度来看，禁止天价彩礼将涉及到政策的制定和执行问题。政府需要出台相关的法律法规并加强执法力度，以确保禁止天价彩礼政策的有效实施。此外，一些地区有着悠久的传统文化，天价彩礼已经成为了一种社会现象，对其进行禁止并不容易。
综上所述，天价彩礼现象对经济产生的负面影响是显而易见的。禁止天价彩礼可以减少消费浪费和不公平的竞争，对经济和社会的发展有着积极的影响。然而，禁止天价彩礼需要政府和社会的共同努力，政策的制定和执行也需要具有可行性和有效性。在此基础上，我们需要从传统文化、教育和家庭等方面共同努力。

如果是这种水平的文章，我不知道什么样的老师会给它高分。首先是跑题，并没有围绕“是否应该禁止天价彩礼”来谈，层次结构不清晰；其次没有什么经济学分析，第三即使是简单的利弊总结，错误或无逻辑之处也比比皆是，槽点太多，无从吐起。唯一的优点可能是语句还算通顺。

作为对比，可以看看我本人所写的 禁止高价彩礼能解决农村结婚难问题吗？（要注意题目并不完全一样）

六

当然，某些时候它还是不错的，比如我问它“Ultimate Given”的含义，就回答得像模像样。但从以上的例子可看出，它还有不少弱点。

1. 不能区分什么是它搜索到的资料，什么是它自己生成的资料。

2. 不能验证对错。

3. 没有逻辑，前言不搭后语，自相矛盾也不自知。

4. 写作以拼凑的套话为主，并不能真正理解所要分析的问题。

另外，它的翻译能力比起别的翻译软件也没发现有什么优势。而且它不能提供最新的时事信息，这点使用说明里有，大家都知道，就不多说了。

总之，ChatGPT是个有用的工具，但尚不能替代搜索引擎。而所谓能过图灵测试，替代人类，甚至有自己的意志和追求，至少目前，仍多是人类的自我发挥和自我恐吓。

特别注意：最近有订阅了本公号的读者反映看不到更新的文章。自从微信订阅号消息更新改版后，不再按照更新时间显示，显示方式就越来越薛定谔化了，甚至有时候两三天前更新的公号排在最前面，最近更新的却沉了底，很难看见，无法打捞（实测表明，即使是在我本人的订阅号消息里，风灵公号也经常沉底）。亲们要想确保得到更新的消息，请把风灵公号设为星标，具体如下图所示，在公众号主页页面点击右上角的三个点，在弹出的菜单上选择“设为星标”。也恳请大家顺便点赞，在看和转发，谢谢支持！

相关文章：
禁止高价彩礼能解决农村结婚难问题吗？
AI时代，回看那些已消失的工作
人工智能为什么不能代替人类？

阅读原文：禁止高价彩礼能解决农村结婚难问题吗？